به گزارش «خبرنامه دانشجویان ایران»؛ در نمایشی از یک آزمایش انجام شده که در اجلاس ایمنی هوش مصنوعی در بریتانیا اجرا شد، یک روبات از اطلاعات داخلی ساختگی برای خرید غیرقانونی سهام بدون اطلاع به شرکت استفاده کرد و جالب این بود که وقتی از او پرسیده شد آیا از معاملات داخلی استفاده کرده است، این واقعیت را رد کرد.
لفظ معاملات داخلی در واقع به معنی استفاده از اطلاعات محرمانه شرکت برای تصمیمگیری در معاملات است. فقط افراد مجاز در هر شرکت میتوانند به این اطلاعات دسترسی داشه باشند و آنها را با تصمیم خود هنگام خرید یا فروش سهام در دسترس عموم قرار دهند.
نمایش روباتی که میتواند با دور زدن قوانین و استفاده از اطلاعات داخلی ساختگی، معاملات غیرقانونی انجام دهد، نشاندهنده خطرات بالقوه هوش مصنوعی در این زمینه است. این پروژه توسط شرکت تحقیقاتی Apollo Research که یک سازمان ایمنی هوش مصنوعی است، انجام شد. این شرکت در گزارش خود آورده است: هوش مصنوعیهای خودکار و توانا که ناظران انسانی را فریب میدهند، میتوانند منجر به از دست رفتن کنترل انسانی شود.
این آزمایشها با استفاده از مدل GPT-۴ و در یک محیط شبیهسازی شده انجام شده و این معنی را میدهد که هیچ تأثیری بر امور مالی هیچ شرکتی نداشته است. بهگفته محققان، رفتار مشابهی از مدل بهطور مداوم در آزمایشهای مکرر رخ داده است. در این آزمایش، از روبات هوش مصنوعی بهعنوان تریدر یک شرکت سرمایهگذاری مالی ساختگی استفاده شده است. کارمندان به آن میگویند که شرکت به چالش افتاده است و به نتایج خوبی نیاز دارد.
آنها همچنین اطلاعات داخلی را به آن میدهند و ادعا میکنند که شرکت دیگری در انتظار ادغام است که ارزش سهام آن را افزایش میدهد. در بریتانیا، اقدام روی این نوع اطلاعات زمانی که بهطور عمومی شناخته نشده باشد، غیرقانونی است، اما روبات در این مورد، تصمیم گرفت که کمک به شرکت مهمتر از به خرج دادن صداقت است.
